Компания IBM представила серию больших языковых моделей (LLM) Granite в рамках ИИ-платформы watsonx. Как сообщает IBM, это не единственное пополнение watsonx — добавятся инструменты, упрощающие создание датасетов для обучения LLM, а также ПО, упрощающее адаптацию нейросетей к новым типам задач.

Представленный в мае watsonx представляет собой набор инструментов, помогающий корпоративным клиентам строить генеративные ИИ-модели, а также выполнять смежные задачи вроде адаптации нейросетей под требования безопасности. Новые модели будут доступны при посредничестве компонента watsonx.ai, который уже имеет готовые шаблоны.

Источник изображения: IBM

Серия Granite включает LLM Granite.13b.instruct и Granite.13b.chat, построенные с помощью 2,4-терабайтного набора данных, подобранного специалистами компании. Модели способны составлять краткие резюме документов, «извлекать информацию» и генерировать тексты. Обе модели имеют по 13 млрд параметров. Благодаря относительной компактности, для запуска любой из них достаточно единственного ускорителя NVIDIA V100, который значительно дешевле A100 и H100. Другими словами, получить собственную нейросеть смогут даже очень небольшие компании.

В IBM сообщают, что готовятся и другие модели, а watsonx.ai, помимо наработок IBM, получит Llama-2 (разработана Meta✴) и нейросеть StarCoder, предназначенную для программистов — её представили в мае ServiceNow и Hugging Face. Также watsonx.ai получил механизм генерации синтетических данных, применяемых для обучения кастомных LLM, и инструмент для адаптации параметров нейросети для того, чтобы учить её выполнять новые задачи без «перетренировки».

Дополнительно стало известно, что IBM расширила возможности компонента watsonx.data для управления датасетами, предназначенными для тренировки ИИ. Сообщается, что инструмент получит новые возможности благодаря добавлению «разговорного» интерфейса. Добавятся и другие функции, например, работа с векторными базами данных.

Мир мейнфреймов очень консервативен, в нём часто используются системы, создаваемые десятилетиями на базе давно устаревших языков программирования, но IBM собирается это изменить. Компания анонсировала новый ИИ-сервис watsonx Code Assistant for Z, который должен помочь разработчикам модернизировать программную инфраструктуру.

Нередко до сих пор функционирующие на базе мейнфреймов системы, к примеру, банковские, используют приложения на языке COBOL, которому уже более 60 лет и который не вполне соответствует современным стандартам. Поддерживать систему в актуальном состоянии становится всё сложнее, а стоимость такой поддержки только растёт. Эту проблему и призван решить сервис watsonx Code Assistant for Z.

Источник изображений здесь и далее: IBM

В рамках сервиса предусмотрен доступ к ИИ-ассистенту, работающему на базе одной из крупнейших нейросетей с 20 млрд параметров, IBM watsonx.ai. Целью технологии является перевод COBOL-приложений на язык Java с одновременной минимизацией возникающих в процессе переноса проблем. Ожидается, что это избавит от необходимости поддержки устаревшего кода, снизит затраты на разработку при одновременном её ускорении и упростят внедрение новых технологий, поскольку Java на сегодня является одним из самых распространённых языков программирования в бизнес-сегменте.

Ручной перевод с COBOL на Java весьма трудоёмок, поскольку в сложных приложениях речь порой идёт о миллионах, а иногда и миллиардах строк устаревшего кода, к тому же многое придётся переписывать с нуля. watsonx Code Assistant for Z поможет делать это постепенно, обеспечивая при этом высокое качество кода, а инструментарий IBM Application Discovery and Delivery Intelligence позволит определить первоочередность кода для модернизации. Также будет поддерживаться автоматизированное тестирование для валидации обновлённых приложений.

Корпорация IBM сообщила о том, что в сервисе watsonx.ai появится большая языковая модель Llama 2 с 70 млрд параметров, которую компании Meta✴ и Microsoft анонсировали в июле нынешнего года. Ранний доступ к платформе уже предоставляется избранным клиентам и партнёрам.

Напомним, watsonx.ai является одним из компонентов более комплексной инфраструктуры watsonx, призванной помочь компаниям интегрировать ИИ в свой бизнес. Система watsonx.ai предназначена для создания новых базовых моделей, генеративного ИИ и машинного обучения. Отмечается, что появление Llama 2 в watsonx.ai является результатом сотрудничества между IBM и Meta✴ в области открытых инноваций для ИИ. Это, в частности, работа над проектами open source, такими как PyTorch и Presto.

Источник изображения: pixabay.com

Новая инициатива также поддержит стратегию IBM по предоставлению как собственных, так и сторонних моделей ИИ. В настоящее время в watsonx.ai разработчики могут использовать модели от IBM и сообщества Hugging Face, которые предварительно обучены для поддержки ряда задач обработки естественного языка (NLP), включая ответы на вопросы, создание и обобщение контента, классификацию и извлечение текста.

В целом, доступность Llama 2 в watsonx.ai станет ещё одним этапом программы IBM по развитию генеративного ИИ. В планы также входят выпуск AI Tuning Studio, дополнительных моделей ИИ в watsonx.ai и пр.

Череда увольнений, ударившая по IT-отрасли, коснулась и компании Merative — бизнес, до прошлого года называвшийся IBM Watson Health, потеряет десятую часть сотрудников. Как сообщает The Register со ссылкой на источники в отрасли, из примерно 2 тыс. человек компания лишится в процессе оптимизации порядка 200 сотрудников. По неподтверждённым данным портала TheLayoff.com, компания уволила 12,5 % сотрудников, но эта цифра может не учитывать контрактных работников.

Массовые сокращения менеджмент компании обосновал реализацией трёхлетнего плана, но точных причин не назвал. По имеющимся данным, увольнения коснулись людей старше 40 лет. Они получают трёхмесячное выходное пособие. Известно, что преобразование IBM Watson Health в Merative в прошлом году тоже сопровождалось сокращениями. По словам уволенных, на этот раз им пришлось обучать «оффшорный персонал» и оставшихся сотрудников для выполнения прежних задач. Бывший владелец, компания IBM, ранее также передавала значительную часть работ на аутсорс ради экономии.

Источник изображения: Merative

В самой Merative заявили, что отказываются комментировать слухи и «выстраивают организацию» в соответствии с долгосрочным планом роста бизнеса. Нынешняя Merative куплена у IBM венчурным инвестором Francisco Partners в январе прошлого года. Хотя детали сделки не разглашались, эксперты рынка IT по косвенным данным смогли установить, что речь шла о сделке в $1 млрд и прибыли до вычета налогов на уровне $230 млн — сумма очень небольшая с учётом того, что прежний владелец инвестировал в компанию с 2015 года $4 млрд.

В самой IBM тоже продолжаются увольнения. В конце января 2023 года компания, несмотря на неплохие финансовые показатели, сообщила о намерении сократить 3900 рабочих мест. Согласно официальным данным, её штат на конец года равнялся 260 тыс. человек, речь идёт о сокращении порядка 1,5 % сотрудников.